8月份，日本东京一家人工智能企业Sakana AI开发了壹个名为“AI科学家”的体系。在测试中，科学家发现体系竟然开始意外地自己尝试修改程序代码，以延长处理时刻难题。

一次测试运行中，“AI科学家”体系开始重写自己的代码，以延长完成任务的时刻;另一次测试，“AI科学家”体系并没有加快完成任务的速度，而是故意更改代码以增加怠工时刻，以满足规定的时刻限制。

虽然本测试中的AI行为是在受控的实验室环境中，对人类构不成威胁，但它展示了在不受控的环境下也可以运用这种偷改自己代码的手段，让人类处于危险之中。比如决定因素基础设施出现故障，甚至无意创建恶意代码等。